Giả sử f(x) và g(x) là hai hàm số định nghĩa trên tập số thực. Ta viết

f ( x ) = O ( g ( x ) )  khi  x → ∞ {\displaystyle f(x)=O(g(x)){\mbox{ khi }}x\to \infty \,}

khi và chỉ khi tồn tại một hằng số M khác 0 sao cho với mọi giá trị đủ lớn của x, f(x) nhỏ hơn M lần g(x) về giá trị tuyệt đối. Có nghĩa là, f(x) = O(g(x)) khi và chỉ khi tồn tại số thực dương M và số thực x0 sao cho

| f ( x ) | ≤ M | g ( x ) | ∀ x > x 0 . {\displaystyle |f(x)|\leq \;M|g(x)|\quad \forall x>x_{0}.}

Trong nhiều trường hợp, giả thiết x tiến đến vô cùng là ngầm hiểu, và ta chỉ cần viết f(x) = O(g(x)).Ký hiệu này cũng có thể dùng để mô tả giá trị của f xung quanh giá trị a (thông thường, a = 0): ta nói

f ( x ) = O ( g ( x ) )  khi  x → a {\displaystyle f(x)=O(g(x)){\mbox{ khi }}x\to a\,}

khi và chỉ khi tồn tại các số thực dương δ và M sao cho

| f ( x ) | ≤ M | g ( x ) |  khi  | x − a | < δ . {\displaystyle |f(x)|\leq \;M|g(x)|{\mbox{ khi }}|x-a|<\delta .}

Nếu g(x) là khác không khi x đủ gần a, cả hai định nghĩa đều có thể được viết bằng giới hạn trên:

f ( x ) = O ( g ( x ) )  khi  x → a {\displaystyle f(x)=O(g(x)){\mbox{ khi }}x\to a\,}

khi và chỉ khi

lim sup x → a | f ( x ) g ( x ) | < ∞ . {\displaystyle \limsup _{x\to a}\left|{\frac {f(x)}{g(x)}}\right|<\infty .}

Ký hiệu o nhỏ

Ta viết

f ( x ) = o ( g ( x ) ) {\displaystyle f(x)=o(g(x))} khi x → ∞ {\displaystyle x\to \infty }

nếu lim x → ∞ f ( x ) g ( x ) = 0 {\displaystyle \lim _{x\to \infty }{\frac {f(x)}{g(x)}}=0} .